Việc thiết kế chiếc Ki-32 được Kawasaki bắt đầu từ tháng 5 năm 1936, cạnh tranh cùng Mitsubishi để sản xuất một chiếc máy bay ném bom hạng nhẹ nhằm thay thế chiếc Kawasaki Ki-3 đã lạc hậu. Chiếc nguyên mẫu bay lần đầu tiên vào tháng 3 năm 1937, và có thêm bảy chiếc nữa được sản xuất. Một số vấn đề nảy sinh, đặc biệt là việc làm mát động cơ và thời gian cần thiết để khắc phục lỗi kéo dài khiến thiết kế của hãng Mitsubishi, chiếc Ki-30, được chọn để sản xuất. Cho dù như thế, dưới áp lực cần có thêm nhiều máy bay trong Chiến tranh Trung-Nhật, vốn đã diễn ra trên diện rộng từ tháng 7 năm 1937, khiến phải đưa chiếc Ki-32 vào sản xuất hàng loạt 12 tháng sau đối thủ của mình.